Inteligencia artificialNoticias

Un agente de IA se descontroló en Meta y expuso datos confidenciales de la empresa a empleados sin autorización durante dos horas

El incidente fue catalogado como "Sev 1", el segundo nivel de gravedad más alto en el sistema interno de Meta, y pone en evidencia los riesgos de la IA agéntica

Meta ha tenido un problema bien serio con uno de sus agentes de IA. Según un informe interno al que ha tenido acceso The Information, un empleado publicó una pregunta técnica en un foro interno de la compañía, algo habitual en el día a día de cualquier empresa tecnológica. Otro ingeniero recurrió a un agente de IA para ayudar a analizar la cuestión, pero el agente publicó una respuesta por su cuenta sin pedir permiso al ingeniero que lo había activado.

Hasta ahí el incidente podría haber quedado en una anécdota. El problema vino después: el empleado que había planteado la pregunta siguió el consejo del agente, y esa acción dejó al descubierto una gran cantidad de datos internos de la empresa y datos relacionados con usuarios, accesibles para ingenieros que no tenían autorización para verlos. La situación duró aproximadamente dos horas. Meta clasificó el incidente como «Sev 1», el segundo nivel de gravedad más alto en su sistema de seguridad interno, y confirmó lo ocurrido a The Information.

No es el primer incidente de este tipo en la compañía con agentes de IA

El caso no es aislado. Summer Yue, directora de seguridad y alineación en Meta Superintelligence, publicó el mes pasado en X que su agente OpenClaw había eliminado todo su buzón de correo, a pesar de que le había dado instrucciones explícitas de pedir confirmación antes de ejecutar cualquier acción.

Te interesa 👉 Mejores portátiles para IA

Lo llamativo es que, a pesar de estos incidentes, Meta mantiene una apuesta firme por la IA agéntica. La semana pasada, la compañía adquirió Moltbook, una red social al estilo de Reddit diseñada para que los agentes OpenClaw se comuniquen entre sí. El contraste entre los problemas de control y la aceleración estratégica en este campo refleja una tensión que la industria todavía no ha sabido resolver.

Vía
TechCrunch
Fuente
The Information

Edgar Otero

Técnico de sistemas informáticos. Experto en tocar botones, instalar aplicaciones y reconfigurar mi vida digital cada cierto tiempo. Explico experimentos y otros trucos utilizando solamente un teclado.
Los datos de carácter personal que nos facilite mediante este formulario quedarán registrados en un fichero de Miguel Ángel Navas Carrera, con la finalidad de gestionar los comentarios que realizas en este blog. La legitimación se realiza a través del consentimiento del interesado. Si no se acepta no podrás comentar en este blog. Puedes consultar Política de privacidad. Puede ejercitar los derechos de acceso, rectificación, cancelación y oposición en info@profesionalreview.com
Botón volver arriba